Mourinho lahir pada 1963 di Setubal, Portugal, anak kepada Jose Manuel Mourinho Felix, dikenali sebagai Felix Mourinho dan isteri, Maria Julia Carrajola dos Santos. Bapanya bermian bola secara professional untuk Os Belenenses dan Vitoria de Setubal. Ibunya pula merupakan seorang guru sekolah rendah.

Sejak kecil, bola sepak merupakan perkara penting kepada Mourinho. Komitmen terhadap bola sepak di Porto dan Lisbon menyebabkan Felix tidak dapat selalu menjumpai anaknya. Pada usia remaja, Mourinho menonton perlawanan hujung minggu bapa beliau dan ketika bapa beliau menjadi seorang jurulatih, Mourinho mula melakukan pemerhatian dalam sesi latihan dan meninjau pasukan lawan. Mourinho ingin mengikut jejak bapanya tetapi kekurangan kualiti untuk bermain bola menyebabkan Mourinho bertindak ingin menjadi seorang pengurus bola sepak.

Ibu beliau memasukkan beliau dalam sekolah bisnes, Mourinho keluar pada hari pertama beliau, membuat keputusan untuk fokus kepad asukan, dan menghadiri Universiti Teknikal Lisbon untuk mempelajari sains sukan. Beliau mengajari pelajaran fizikal dalam banyak sekolah dan selepas lima tahun, beliau mendapat diploma. Mourinho menghadiri kursus jurulatih yang diadakan oleh Persatuan Bola Sepak England dan Scotland, beliau mempelajari teknik psikologi dan motivasi teori.